A veterana Audrey Lorvo está pesquisando a segurança da IA, que busca garantir que modelos de IA cada vez mais inteligentes sejam confiáveis e possam beneficiar a humanidade. O campo crescente se concentra em desafios técnicos como robustez e alinhamento da IA com valores humanos, bem como preocupações sociais como transparência e responsabilidade. Os profissionais também estão preocupados com os potenciais riscos existenciais associados a ferramentas de IA cada vez mais poderosas.

“Garantir que a IA não seja mal utilizada ou aja de forma contrária às nossas intenções é cada vez mais importante à medida que nos aproximamos da inteligência geral artificial (AGI)”, diz Lorvo, formado em ciência da computação, economia e ciência de dados . AGI descreve o potencial da inteligência artificial para igualar ou superar as capacidades cognitivas humanas.

Uma acadêmica do MIT Schwarzman College of Computing  Social and Ethical Responsibilities of Computing (SERC) , Lorvo analisa de perto como a IA pode automatizar processos e práticas de pesquisa e desenvolvimento de IA. Membro do  grupo de pesquisa Big Data , ela está investigando as implicações sociais e econômicas associadas ao potencial da IA para acelerar a pesquisa sobre si mesma e como comunicar efetivamente essas ideias e impactos potenciais para o público em geral, incluindo legisladores, consultores estratégicos e outros.

Lorvo enfatiza a necessidade de avaliar criticamente os rápidos avanços da IA e suas implicações, garantindo que as organizações tenham estruturas e estratégias adequadas para lidar com os riscos. “Precisamos garantir que os humanos colham os benefícios da IA e que não percamos o controle da tecnologia”, ela diz. “Precisamos fazer tudo o que pudermos para desenvolvê-la com segurança.”

Sua participação em esforços como o  AI Safety Technical Fellowship reflete seu investimento em entender os aspectos técnicos da segurança da IA. O fellowship oferece oportunidades para revisar pesquisas existentes sobre o alinhamento do desenvolvimento da IA com considerações de potencial impacto humano. "O fellowship me ajudou a entender as questões técnicas e os desafios da segurança da IA para que eu possa potencialmente propor melhores estratégias de governança da IA", diz ela. De acordo com Lorvo, as empresas na fronteira da IA continuam a ultrapassar limites, o que significa que precisaremos implementar políticas eficazes que priorizem a segurança humana sem impedir a pesquisa.

Ao chegar ao MIT, Lorvo sabia que queria seguir um curso de estudo que lhe permitisse trabalhar na intersecção entre ciência e humanidades. A variedade de ofertas no Instituto tornou suas escolhas difíceis, no entanto.

“Há muitas maneiras de ajudar a melhorar a qualidade de vida de indivíduos e comunidades”, ela diz, “e o MIT oferece muitos caminhos diferentes para investigação”.

Começando com economia — uma disciplina que ela gosta por seu foco na quantificação de impacto — Lorvo investigou matemática, ciência política e planejamento urbano antes de escolher o Curso 6-14.

“As aulas de econometria do professor  Joshua Angrist me ajudaram a ver o valor de focar em economia, enquanto os elementos de ciência de dados e ciência da computação me atraíram por causa do alcance crescente e do impacto potencial da IA”, ela diz. “Podemos usar essas ferramentas para lidar com alguns dos problemas mais urgentes do mundo e, com sorte, superar desafios sérios.”

Lorvo também se especializou em estudos e planejamento urbano e desenvolvimento internacional .

À medida que estreita seu foco, Lorvo descobre que compartilha uma visão sobre a humanidade com outros membros da comunidade do MIT, como o  grupo MIT AI Alignment , de quem ela aprendeu bastante sobre segurança de IA. “Os alunos se importam com seu impacto marginal”, diz ela.

Impacto marginal, o efeito adicional de um investimento específico de tempo, dinheiro ou esforço, é uma maneira de medir o quanto uma contribuição acrescenta ao que já está sendo feito, em vez de focar no impacto total. Isso pode potencialmente influenciar onde as pessoas escolhem dedicar seus recursos, uma ideia que agrada a Lorvo.

“Em um mundo de recursos limitados, uma abordagem orientada por dados para resolver alguns dos nossos maiores desafios pode se beneficiar de uma abordagem personalizada que direciona as pessoas para onde elas provavelmente farão mais bem”, ela diz. “Se você quer maximizar seu impacto social, refletir sobre o impacto marginal da sua escolha de carreira pode ser muito valioso.”

Lorvo também valoriza o foco do MIT em educar o aluno como um todo e aproveitou as oportunidades para investigar disciplinas como filosofia por meio do  MIT Concourse , um programa que facilita o diálogo entre ciência e humanidades. O Concourse espera que os participantes obtenham orientação, clareza e propósito para atividades científicas, técnicas e humanas.

Lorvo investe seu tempo fora da sala de aula na criação de experiências memoráveis e no fomento de relacionamentos com seus colegas de classe. “Tenho sorte de haver espaço para equilibrar meus cursos, pesquisas e compromissos de clube com outras atividades, como levantamento de peso e iniciativas fora do campus”, diz ela. “Sempre há muitos clubes e eventos disponíveis no Instituto.”

Essas oportunidades de expandir sua visão de mundo desafiaram suas crenças e a expuseram a novas áreas de interesse que alteraram sua vida e escolhas de carreira para melhor. Lorvo, que é fluente em francês, inglês, espanhol e português, também aplaude o MIT pelas experiências internacionais que ele proporciona aos alunos.

“Fiz estágio em Santiago do Chile e Paris com  o MISTI e ajudei a testar uma  câmara de condensação de vapor de água que projetamos em uma  aula do D-Lab no outono de 2023 em colaboração com a  Escola Politécnica de Madagascar e  a ONG Tatirano [organização não governamental]”, ela diz, “e aproveitei as oportunidades de aprender sobre como lidar com a desigualdade econômica por meio de minhas aulas de Desenvolvimento Internacional e D-Lab”.

Como presidente da  Undergraduate Economics Association do MIT , Lorvo se conecta com outros alunos interessados em economia enquanto continua a expandir sua compreensão do campo. Ela gosta dos relacionamentos que está construindo enquanto também participa dos eventos da associação ao longo do ano. “Mesmo como veterana, encontrei novas comunidades no campus para explorar e apreciar”, diz ela. “Eu incentivo outros alunos a continuar explorando grupos e aulas que despertam seus interesses ao longo de seu tempo no MIT.”

Após a graduação, Lorvo quer continuar investigando a segurança da IA e pesquisando estratégias de governança que possam ajudar a garantir a implantação segura e eficaz da IA.

Entender os potenciais impactos da tecnologia na humanidade, fazer o bem, melhorar continuamente e criar espaços onde grandes ideias podem ver a luz do dia continuam a impulsionar Lorvo. Mesclar as humanidades com as ciências anima muito do que ela faz. “Sempre esperei contribuir para melhorar a vida das pessoas, e a IA representa o maior desafio e oportunidade da humanidade até agora”, diz ela. “Acredito que o campo da segurança da IA pode se beneficiar de pessoas com experiências interdisciplinares como o tipo que tive a sorte de ganhar, e encorajo qualquer pessoa apaixonada por moldar o futuro a explorá-lo.”